Pytorch 常用函数汇总

2023-11-05 23:30| 来源: 网络整理| 查看: 265

1. lstm = nn.LSTM(input_size = input_size, hidden_size = hidden_size, num_layers = num_layers, batch_first = True, dropout = dropout, bidirectional = True)

初始化定义lstm的模块，

2. hidden = (autograd.Variable(torch.randn(1, 1, 3)), autograd.Variable(torch.randn((1, 1, 3))))

隐藏层是一个元组形式，其第一个元素是LSTM的隐藏层输出，另一个元素维护了隐藏层的状态。

3. lstm_out, self.hidden = lstm( embeds.view(len(sentence), 1, -1), hidden)

输入inputs和隐藏层hidden的数据

4. view

将一个tensor按照变换size，注意变换前后数据是不变的，变化的只是维度，如果每个维度上是-1，则代表是根据其他维度推导而来的；如果维度不一致，比如原来是3*4，变化为（7，-1）是会报错的。

5. 实现word embedding是通过一个函数来实现的:nn.Embedding

embeds = nn.Embedding(2, 5) 这里的2表示有2个词，5表示5维度，其实也就是一个2x5的矩阵，所以如果你有1000个词，每个词希望是100维，你就可以这样建立一个word embedding，nn.Embedding(1000, 100)

6. repeat 函数 x = torch.tensor([[1,2,3],[4,5,6]]) output(x): tensor([[1, 2, 3], [4, 5, 6]]) y = x.repeat(1,2) output(y): tensor([[1, 2, 3, 1, 2, 3], [4, 5, 6, 4, 5, 6]]) y.view(2,-1,3) output: tensor([

【本文地址】

公司简介

联系我们